#multi-objective optimization

3 篇

PIANO: Personalized Reranking via Information Aggregation Node for Music Search Optimization

PIANO：基于信息聚合节点的个性化重排序优化音乐搜索

🧭 个性化重排序 · 列表级多目标优化

NetEase Cloud Music

引入历史查询交叉注意力与列表级聚合Token，实现列表级多目标重排序，显著提升CTR/CVR

📌 工作参考价值（4 点）

历史查询兴趣精炼：电商搜索中，用户历史搜索 query 包含丰富意图，可借鉴 QDIR 的交叉注意力机制，将当前 query 与历史 query 序列显式对齐，过滤无关偏好，提升重排序的相关性。
列表级多目标预估：用可学习的 [CLS]-style token（IAN）聚合候选列表特征，直接预测整列表的 CTR/CVR 联合分布，而非逐物品 trade-off，适合需要在列表层面平衡点击和转化的推荐场景。
端到端重排序架构：PIANO 将精炼的兴趣向量和物品特征一起送入 IAN，输出列表级分数，可作为排序模型的后置模块集成到现有管线，改动成本低。
多目标优化在搜索广告的迁移：在广告系统中，同时优化 CTR 和 CVR 时，可以尝试引入列表级聚合预测，让模型学习列表级的最优展示组合，避免局部物品级平衡导致整体效率下降。

RecSys | 2026-06-15 | cs.IR | score 7/10

SkillBrew: Multi-Objective Curation of Skill Banks for LLM Agents

面向LLM智能体的多目标技能库优化框架

🧭 LLM Agent 技能库的多目标全局优化 ★ 深度解读

City University of Hong Kong · Squirrel Ai Learning · University of Science and Technology of China · University of California, San Diego · Griffith University

提出SkillBrew，通过效用-多样性-覆盖度多目标全局优化解决技能库膨胀与冗余问题

📌 工作参考价值（4 点）

技能库不应只增不减，可引入效用、多样性和覆盖度三目标联合评价，避免冗余或低效技能挤占检索槽位。
通过反事实重放（leave-one-out replay）量化单个技能的边际贡献，为编辑决策（KEEP / REWRITE / REMOVE）提供细粒度信号，可在Agent日常运行中低成本积累证据。
双层 propose-then-verify 循环可分隔提议与验证，避免过拟合：用支持集产生编辑候选，在查询集上帕累托选择，保证推广性。
技能库跨模型迁移能力强，可为电商对话Agent或推荐Agent构建通用决策知识库，通过持续 curation 提升推荐逻辑的稳定性与覆盖度。

Agent | 2026-05-28 | cs.IR | score 8/10

skill bank curation multi-objective optimization LLM agents Pareto optimization counterfactual replay

When Gradients Collide: Failure Modes of Multi-Objective Prompt Optimization for LLM Judges

文本梯度多目标优化LLM裁判提示的失败模式：梯度稀释与指令干扰

🧭 LLM裁判多目标提示优化 ★ 深度解读

Amazon · IIT Jodhpur

揭示多任务文本梯度优化中梯度稀释（特异性降低59%）和推理时指令干扰两大致命瓶颈

📌 工作参考价值（4 点）

多目标评估提示优化需警惕耦合程度：当 LLM 裁判需要同时评估多个维度（如流畅度、相关性、一致性），将所有维度放在一个梯度 LLM 中联合优化会导致梯度特异性从 9.0 暴跌到 3.7（下降 59%）。在业务中做自动提示调优时，应尽量保持『每个维度独立生成梯度，再合并』的 SSC 模式，而不要过早将所有维度混合输入梯度 LLM。
推理时指令长度不对称会损害整体性能：即便每个维度都有独立的、经过优化的指令，直接拼接到同一个 prompt 中，Spearman 相关性也会下降 5.3 个点。原因是详细指令会抢占模型注意力。在电商商品评价、多维度质量打分等场景，如果使用单个 LLM 一次输出多个分数，必须控制各维度指令的长度比例，避免某个维度过于冗长。
可用梯度特异性指标监控优化质量：文中定义的『梯度特异性』（gradient specificity）可由 LLM 自动打分（1-10 分），适合作为多目标提示优化的过程诊断指标。在自动化提示工程 pipeline 中，一旦检测到特异性骤降，说明梯度信号已稀释，可触发回退到独立梯度模式或停止优化，防止无意义消耗。
超体积指标与平均性能的背离值得注意：在联合优化（CCC）模式下，虽然平均 Spearman 停滞，但超体积指标（HVI）持续增长，说明探索到了在各维度上有差异的特化提示。这对需要保留多样性候选的 Agent 协作场景可能有参考：多智能体 prompt 优化可以先用联合模式产生一组 Pareto 解，再从中人工精选。

Eval | 2026-05-25 | cs.LG | score 8/10

LLM-as-a-judge textual gradients multi-objective optimization gradient dilution prompt optimization evaluation